鹅厂工程师做了个AI“扫雷攻略”，免费加buff

你的电脑游戏启蒙是什么？赌十块钱，我猜是扫雷：

玩得多了，就总结出了一套“攻略”：根据已知的信息和规律，标记出“雷”的布局——发现这些规律便是提升技能的起点。

有这么一群玩扫雷的孩子长大了，成为了鹅厂“AI扫雷专家”：

就在今天，腾讯发布了业内首个「AI安全攻击矩阵」，它就像是一份针对AI的“扫雷攻略”，有了它，研究人员和开发人员即可根据AI部署运营的情况，对照风险矩阵来排查可能存在的安全问题，并根据矩阵推荐的防御建议，降低已知的安全风险。

这是一份具有高实用性的AI安全技术指导框架，首次对学术及工业界最前沿的AI安全研究做了全面的梳理，从攻击者的视角，把AI技术研发部署各个环节中的攻击过程与技术实现手段列举的明明白白。

“传说中的”AI安全攻击矩阵

这本“攻略”由腾讯两大实验室腾讯AI Lab及朱雀实验室联合编纂，参考了当前最流行网络攻防领域中成熟度高、实战意义强的开源安全研究框架ATT&CK，从攻击者视角全面分析其战术、技术和流程，并按照“较成熟、研究中、潜在威胁”三种成熟度直观地将攻击技术分类。

相比从单一角度研究算法的安全问题，它有着更高的实用价值和参考意义。

编写这样一份“攻略”，最难的地方在于如何选取和梳理AI系统安全问题的分析角度。由于AI系统软硬件结合运作的特殊性，AI系统安全的分析切入角度与传统互联网产品并不完全一致。

因为是全球范围内业界的第一次尝试，鹅厂的这群工程师并没有太多可以借鉴的经验，一切都需从头开始。

项目成立之初，所有团队成员都处于“满世界找”的状态，一些被重点研究的论文书刊，甚至已经被翻烂了。就像训练一个AI模型要投喂海量原始数据一样，编纂这样一份“扫雷攻略”更需要海量的调研、扎实的素材。“我们从海内外大大小小的渠道，收集了上千篇论文出来，仔细研读。另外，还从鹅厂真实业务场景中的安全攻防中挖掘了不少实战素材。”一位参与其中的团队成员说。

一份好的攻略总是要经历多个版本的迭代。一开始苦恼的地方在于，如何用一条主线框架有逻辑地串起内容？是需要融入传统技术，还是更关注AI产品研发部署流程？这里就曾做过两个不同方向的版本尝试。在确定选择选择从AI研发部署生命周期的角度切入之后，继续“小步快跑”，从原来重点关注“算法、数据”到后来把范围扩展到“设计、依赖的软件、硬件环境、供应链角度、侧信道安全、物理攻击、模型架构安全 ”等方面。后期的版本中，还在进一步完善攻击分类等细节。

经过半年的打磨，《腾讯AI安全攻击矩阵》终于对外公布，它总结归纳了AI系统在不同阶段所面临的安全风险，从全局视角来审视AI的自身安全。但这只是鹅厂工程师在AI安全研究上迈出的一小步。

“当前安全从业者面临着更复杂、更多变的网络环境，任何一个环节都是攻防的前线，作为安全工作者，必须走在业务之前，做到技术的与时俱进。”

当然啦，今后还会不断冒出新的AI攻击行为，鹅厂工程师们将继续深入钻研，保持和业界最新成果的同步，不定期更新风险矩阵，把“AI扫雷”进行到底。

说了这么多，如果你想获取这份攻略完整版，

请在在公众号后台留言“AI安全”吧！

-END-

扫码添加管理员，加入鹅厂技术派官方粉丝群